Insights in implementing production-ready solutions with generative AI
随着生成性AI的革新行业,组织渴望利用其潜力。但是,从生产就绪的解决方案到全尺度实施的旅程可以提出不同的运营和技术考虑因素。这篇文章探讨了从欧洲,中东和非洲(EMEA)的AWS客户中学到的主要见解和经验教训,他们成功地导航了这一过渡,为其他希望效仿的人提供了路线图。
Responsible AI in action: How Data Reply red teaming supports generative AI safety on AWS
在这篇文章中,我们探讨了如何将AWS服务与开源工具无缝集成,以帮助您在组织内建立强大的红色小组机制。具体来说,我们讨论了数据回复的红色团队解决方案,这是一种综合蓝图,以提高AI安全性和负责任的AI实践。
InterVision accelerates AI development using AWS LLM League and Amazon SageMaker AI
这篇文章展示了AWS LLM League的游戏启示能力如何加速合作伙伴的实用AI开发能力,同时展示了微调较小的语言模型如何为特定行业需求提供成本效益,专业的解决方案。
Improve Amazon Nova migration performance with data-aware prompt optimization
在这篇文章中,我们提出了LLM迁移范式和体系结构,包括连续的模型评估过程,使用Amazon Bedrock及时生成,以及数据吸引的优化。该解决方案在迁移之前评估模型性能,并使用用户提供的数据集和目标指标迭代优化Amazon Nova模型提示。
Evaluate Amazon Bedrock Agents with Ragas and LLM-as-a-judge
在这篇文章中,我们介绍了开源基础代理评估框架,这是一种简化代理开发过程的Langfuse集成解决方案。我们证明了如何将该评估框架与药品研究代理集成。我们用它来评估针对生物标志物问题的代理性能,并将痕迹发送到langfuse,以查看问题类型的评估指标。
AFX团队的产品迁移到Nova Lite模型已通过增强销售工作流提供了切实的企业价值。通过迁移到亚马逊Nova Lite模型,该团队不仅可以节省大量成本并减少了延迟,而且还为卖家提供了领先的智能和可靠解决方案。
在这篇文章中,我们将使用OpenSearch Service构建混合搜索解决方案,该服务由亚马逊泰坦多模式多模式嵌入G1模型通过Amazon Bedrock提供的多模式嵌入。该解决方案演示了如何使用户提交文本和图像作为查询,以从示例零售图像数据集中检索相关结果。
Supercharge your LLM performance with Amazon SageMaker Large Model Inference container v15
今天,我们很高兴地宣布,由VLLM 0.8.4驱动的Amazon Sagemaker大型推理(LMI)容器V15的推出,并支持VLLM V1发动机。该版本引入了显着的性能提高,扩展的模型兼容性与多模态(即能够理解和分析文本到文本,图像到文本和文本映射数据),并与VLLM提供内置的集成,以帮助您无人接缝和最高绩效的大型性能(LLMS)具有最高的性能。
Accuracy evaluation framework for Amazon Q Business – Part 2
在本系列的第一篇文章中,我们引入了Amazon Q Business的全面评估框架,Amazon Q Business是一个完全管理的检索增强发电(RAG)解决方案,该解决方案使用了您公司的专有数据,而没有管理大型语言模型(LLMS)的复杂性。第一篇文章着重于选择适当的用例,准备数据并实施指标[…]
Use Amazon Bedrock Intelligent Prompt Routing for cost and latency benefits
今天,我们很高兴地宣布亚马逊基岩智能及时路由的一般可用性。在这篇博客文章中,我们详细介绍了内部测试的各种亮点,如何开始,并指出一些警告和最佳实践。我们鼓励您将Amazon Bedrock智能及时路由纳入您的新的和现有的生成AI应用程序中。
在这篇文章中,我们探讨了Infosys如何开发Infosys事件AI来解锁事件和会议产生的见解。通过其功能套件(包括实时转录,智能摘要和交互式聊天助手)Infosys Event AI使活动知识可访问,并在活动期间和活动结束后为与会者提供了沉浸式的参与解决方案。
Amazon Bedrock Prompt Optimization Drives LLM Applications Innovation for Yuewen Group
今天,我们很高兴地宣布在亚马逊基岩上迅速优化。使用此功能,您现在可以使用单个API调用或单击Amazon Bedrock控制台上的按钮来优化几个用例的提示。在这篇博客文章中,我们讨论了如何提示优化改善Yuewen Group中智能文本处理任务的大语言模型(LLMS)的性能。
Build a location-aware agent using Amazon Bedrock Agents and Foursquare APIs
在这篇文章中,我们将Amazon Bedrock代理商和FourSquare API结合在一起,以演示如何使用位置感知的代理为您的用户带来个性化的响应。
在这篇文章中,我们使用亚马逊基岩的多代理功能来展示一种强大而创新的AWS成本管理方法。通过使用Amazon Nova FMS的高级功能,我们开发了一种解决方案,该解决方案展示了AI驱动的代理如何彻底改变组织分析,优化和管理其AWS成本的方式。
Stream ingest data from Kafka to Amazon Bedrock Knowledge Bases using custom connectors
在这篇文章中,我们使用Amazon Managed Streaming为Apache Kafka(Amazon MSK)构建的自定义连接器和主题实现了一个带有亚马逊基岩知识库的RAG架构,该架构可能有兴趣了解股票价格趋势。
Add Zoom as a data accessor to your Amazon Q index
这篇文章演示了缩放用户如何在其缩放界面中直接访问其Amazon Q Business Enterprise数据,从而减轻了在维护企业安全边界的同时在应用程序之间切换的需求。现在,组织可以将Zoom配置为Amazon Q业务中的数据登录器,从而在其Amazon Q Index和Zoom AI Companion之间无缝集成。这种集成使用户可以直接在Zoom平台内以受控方式访问其企业知识。
Automate video insights for contextual advertising using Amazon Bedrock Data Automation
亚马逊基岩数据自动化(BDA)是由FMS在亚马逊基岩中提供动力的新型托管功能。 BDA从非结构化内容(包括文档,图像,视频和音频)提取结构化输出,同时减轻了对复杂自定义工作流程的需求。在这篇文章中,我们演示了BDA如何自动提取丰富的视频见解,例如章节和音频段,检测场景中的文本,并分类交互式广告局(IAB)分类学,然后使用这些见解来构建非线性广告解决方案,以增强上下文广告的有效性。